当前位置:100EC>数字研究> 高通中国:《AI变革正在推动终端侧推理创新》(附全文下载)
高通中国:《AI变革正在推动终端侧推理创新》(附全文下载)
高通中国发布时间:2025年02月20日 10:59:41

(网经社讯)尖端AI推理模型DeepSeek R1一经问世,便在整个科技行业引起波澜。因其性能能够 媲美甚至超越先进的同类模型,颠覆了关于AI发展的传统认知。 这一关键时刻是更广泛趋势的一部分,凸显了行业在打造高质量小语言模型和多模态推 理模型方面的创新,以及这些创新正在为AI的商用应用和终端侧推理落地做好准备。这些新模型能够在终端侧运行,将加速强大边缘侧芯片的规模化扩展,并创造对此类芯片 的需求。 

四大趋势正在显著提高目前可在终端侧运行的AI模型的质量、性能和效率,从而推 动上述变革: 

当前先进的AI小模型已具有卓越性能。模型蒸馏和新颖的AI网络架构等新技 术能够在不影响质量的情况下简化开发流程,让新模型的表现超越一年前 推出的仅能在云端运行的更大模型。 

模型参数规模正在快速缩小。先进的量化和剪枝技术使开发者能够在不对准 确性产生实质影响的情况下,缩小模型参数规模。

开发者能够在边缘侧打造更丰富的应用。高质量AI模型快速激增,意味 着文本摘要、编程助手和实时翻译等特性在智能手机等终端上的普及, 让AI能够支持跨边缘侧规模化部署的商用应用。

AI正在成为新的UI。个性化多模态AI智能体将简化交互,高效地跨越各种应 用完成任务。

高通技术公司在引领并利用从AI训练向大规模推理转型,以及AI计算处理从云端向边 缘侧扩展方面具有战略优势。公司在开发定制CPU、NPU、GPU和低功耗子系统领 域取得了广泛的成就。通过与模型厂商展开合作,以及面向跨不同边缘终端领域的 模型部署提供工具、框架和SDK,高通技术公司赋能开发者在边缘侧加速采用AI智能 体和应用。

 近期对AI模型训练方式的颠覆变革和重新评估验证了AI格局即将向大规模推理转变的 趋势,这将形成全新边缘侧推理计算的创新和升级周期。尽管模型训练仍将在云端 进行,但推理将受益于采用高通®技术的广泛终端规模,并催生更多边缘侧AI赋能处 理器的需求。

报告下载:《AI变革正在推动终端侧推理创新》.pdf

浙江网经社信息科技公司拥有17年历史,作为中国领先的数字经济新媒体、服务商,提供“媒体+智库”、“会员+孵化”服务;(1)面向电商平台、头部服务商等PR条线提供媒体传播服务;(2)面向各类企事业单位、政府部门、培训机构、电商平台等提供智库服务;(3)面向各类电商渠道方、品牌方、商家、供应链公司等提供“千电万商”生态圈服务;(4)面向各类初创公司提供创业孵化器服务。

网经社“电数宝”电商大数据库(DATA.100EC.CN,免费注册体验全库)基于电商行业17年沉淀,包含100+上市公司、新三板公司数据,150+独角兽、200+千里马公司数据,4000+起投融资数据以及10万+互联网APP数据,全面覆盖“头部+腰部+长尾”电商,旨在通过数据可视化形式帮助了解电商行业,挖掘行业市场潜力,助力企业决策,做电商人研究、决策的“好参谋”。

【关键词】 DeepSeekR1AI原创
【投诉曝光】 更多>

【版权声明】秉承互联网开放、包容的精神,网经社欢迎各方(自)媒体、机构转载、引用我们原创内容,但要严格注明来源网经社;同时,我们倡导尊重与保护知识产权,如发现本站文章存在版权问题,烦请将版权疑问、授权证明、版权证明、联系方式等,发邮件至NEWS@netsun.com,我们将第一时间核实、处理。

        平台名称
        平台回复率
        回复时效性
        用户满意度
        微信公众号
        微信二维码 打开微信“扫一扫”
        微信小程序
        小程序二维码 打开微信“扫一扫”